In this paper, we propose an end-to-end framework that jointly learns keypoint detection, descriptor representation and cross-frame matching for the task of image-based 3D localization. Prior art has tackled each of these components individually, purportedly aiming to alleviate difficulties in effectively train a holistic network. We design a self-supervised image warping correspondence loss for both feature detection and matching, a weakly-supervised epipolar constraints loss on relative camera pose learning, and a directional matching scheme that detects key-point features in a source image and performs coarse-to-fine correspondence search on the target image. We leverage this framework to enforce cycle consistency in our matching module. In addition, we propose a new loss to robustly handle both definite inlier/outlier matches and less-certain matches. The integration of these learning mechanisms enables end-to-end training of a single network performing all three localization components. Bench-marking our approach on public data-sets, exemplifies how such an end-to-end framework is able to yield more accurate localization that out-performs both traditional methods as well as state-of-the-art weakly supervised methods.

Synthetic datasets are often used to pretrain end-to-end optical flow networks, due to the lack of a large amount of labeled, real-scene data. But major drops in accuracy occur when moving from synthetic to real scenes. How do we better transfer the knowledge learned from synthetic to real domains? To this end, we propose CLIP-FLow, a semi-supervised iterative pseudo-labeling framework to transfer the pretraining knowledge to the target real domain. We leverage large-scale, unlabeled real data to facilitate transfer learning with the supervision of iteratively updated pseudo-ground truth labels, bridging the domain gap between the synthetic and the real. In addition, we propose a contrastive flow loss on reference features and the warped features by pseudo ground truth flows, to further boost the accurate matching and dampen the mismatching due to motion, occlusion, or noisy pseudo labels. We adopt RAFT as the backbone and obtain an F1-all error of 4.11%, i.e. a 19% error reduction from RAFT (5.10%) and ranking 2$^{nd}$ place at submission on the KITTI 2015 benchmark. Our framework can also be extended to other models, e.g. CRAFT, reducing the F1-all error from 4.79% to 4.66% on KITTI 2015 benchmark.

作为最成功的AI驱动应用程序之一，推荐系统的目的是通过在我们生活的许多方面提供个性化建议，以有效而有效的方式帮助人们做出适当的决定，尤其是针对各种面向人类的在线服务，例如E-商务平台和社交媒体网站。在过去的几十年中，推荐系统的快速发展通过创造经济价值，节省时间和精力以及促进社会利益，从而使人类受益匪浅。但是，最近的研究发现，数据驱动的推荐系统可能会对用户和社会构成严重威胁，例如传播虚假新闻以操纵社交媒体网站中的公众舆论，扩大不公平为代表性不足的团体或在工作匹配服务中的个人，或从建议结果中推断隐私信息。因此，系统的可信赖性一直吸引着各个方面的关注，以减轻推荐系统引起的负面影响，以增强公众对推荐系统技术的信任。在这项调查中，我们提供了可信赖的推荐系统（TREC）的全面概述，特别关注六个最重要的方面；即安全与鲁棒性，非歧视与公平，解释性，隐私，环境福祉以及问责制和可审计性。对于每个方面，我们总结了最近的相关技术，并讨论了潜在的研究方向，以帮助未来实现值得信赖的推荐系统。

我们表明，诸如Stylegan和Biggan之类的预训练的生成对抗网络（GAN）可以用作潜在银行，以提高图像超分辨率的性能。尽管大多数现有面向感知的方法试图通过以对抗性损失学习来产生现实的产出，但我们的方法，即生成的潜在银行（GLEAN），通过直接利用预先训练的gan封装的丰富而多样的先验来超越现有实践。但是，与需要在运行时需要昂贵的图像特定优化的普遍的GAN反演方法不同，我们的方法只需要单个前向通行证才能修复。可以轻松地将Glean合并到具有多分辨率Skip连接的简单编码器银行decoder架构中。采用来自不同生成模型的先验，可以将收集到各种类别（例如人的面孔，猫，建筑物和汽车）。我们进一步提出了一个轻巧的Glean，名为Lightglean，该版本仅保留Glean中的关键组成部分。值得注意的是，Lightglean仅由21％的参数和35％的拖鞋组成，同时达到可比的图像质量。我们将方法扩展到不同的任务，包括图像着色和盲图恢复，广泛的实验表明，与现有方法相比，我们提出的模型表现出色。代码和模型可在https://github.com/open-mmlab/mmediting上找到。

图形学习模型是研究人员探索图形结构数据的关键工具。为了训练功能强大的图形学习模型，常规方法使用足够的训练数据来训练单个设备上的图形模型。但是，由于隐私问题，在实际情况下这样做是令人难以置信的。联合学习提供了一种可行的解决方案，可以通过引入各种隐私性机制（例如图形边缘的差异隐私）来解决此类限制。然而，联合图学习中的差异隐私可确保图表中维护的分类信息。它降低了图形学习模型的性能。在本文中，我们研究了如何在图形边缘实施差异隐私，并观察实验中的性能下降。我们还注意到，图形边缘的差异隐私引入了扰动图邻近性的噪音，这是图形对比度学习中的图形增强。受到的启发，我们建议利用图形对比学习的优势，以减轻差异隐私引起的性能下降。广泛的实验是通过几种代表性的图形模型和广泛使用的数据集进行的，表明对比度学习确实减轻了由差异隐私引起的模型的性能下降。

组成零射击学习（CZSL）旨在识别训练过程中从可见状态和物体形成的看不见的构图。由于与不同对象纠缠的视觉外观中相同的状态可能是不同的，因此CZSL仍然是一项艰巨的任务。某些方法使用两个训练有素的分类器识别状态和对象，忽略了对象与状态之间的相互作用的影响；其他方法试图学习状态对象组成的联合表示，从而导致可见和看不见的组成集之间的域间隙。在本文中，我们提出了一种新颖的暹罗对比度嵌入网络（场景）（代码：https：//github.com/xduxyli/scen-master），以实现看不见的构图识别。考虑到状态与物体之间的纠缠，我们将视觉特征嵌入了暹罗对比度空间中，以分别捕获它们的原型，从而减轻了状态与物体之间的相互作用。此外，我们设计了一个状态过渡模块（STM），以增加训练组成的多样性，从而提高识别模型的鲁棒性。广泛的实验表明，我们的方法在三个具有挑战性的基准数据集（包括最近提出的C-QGA数据集）上的最先进方法大大优于最先进的方法。

普遍的后门是由动态和普遍的输入扰动触发的。它们可以被攻击者故意注射，也可以自然存在于经过正常训练的模型中。它们的性质与传统的静态和局部后门不同，可以通过扰动带有一些固定图案的小输入区域来触发，例如带有纯色的贴片。现有的防御技术对于传统后门非常有效。但是，它们可能对普遍的后门无法正常工作，尤其是在后门去除和模型硬化方面。在本文中，我们提出了一种针对普遍的后门，包括天然和注射后门的新型模型硬化技术。我们基于通过特殊转换层增强的编码器架构来开发一般的普遍攻击。该攻击可以对现有的普遍后门攻击进行建模，并通过类距离进行量化。因此，使用我们在对抗训练中攻击的样品可以使模型与这些后门漏洞相比。我们对9个具有15个模型结构的9个数据集的评估表明，我们的技术可以平均扩大阶级距离59.65％，精度降解且没有稳健性损失，超过了五种硬化技术，例如对抗性训练，普遍的对抗训练，Moth，Moth等， 。它可以将六次普遍后门攻击的攻击成功率从99.06％降低到1.94％，超过七种最先进的后门拆除技术。

最近的研究表明，预训练的语言模型（LMS）容易受到文本对抗性攻击的影响。但是，现有的攻击方法要么遭受低攻击成功率，要么无法在指数级的扰动空间中有效搜索。我们提出了一个有效有效的框架Semattack，以通过构建不同的语义扰动函数来生成自然的对抗文本。特别是，Semattack优化了对通用语义空间约束的生成的扰动，包括错字空间，知识空间（例如WordNet），上下文化的语义空间（例如，BERT群集的嵌入空间）或这些空间的组合。因此，生成的对抗文本在语义上更接近原始输入。广泛的实验表明，最新的（SOTA）大规模LMS（例如Deberta-V2）和国防策略（例如Freelb）仍然容易受到Semattack的影响。我们进一步证明，Semattack是一般的，并且能够为具有较高攻击成功率的不同语言（例如英语和中文）生成自然的对抗文本。人类评估还证实，我们产生的对抗文本是自然的，几乎不会影响人类的表现。我们的代码可在https://github.com/ai-secure/semattack上公开获取。

长期信息的开发一直是视频恢复的一个长期问题。最近的BASICVSR和BASICVSR ++通过长期传播和有效的对齐方式在视频超分辨率方面表现出色。他们的成功导致了一个问题，即是否可以将它们转移到不同的视频修复任务中。在这项工作中，我们将BASICVSR ++扩展到用于视频恢复任务的通用框架。在输入和输出具有相同空间尺寸的任务中，输入分辨率通过稳定的卷积以维持效率而降低。只有从BASICVSR ++进行的最小变化，所提出的框架在各种视频恢复任务中都具有出色的效率，包括视频Deblurring和DeNoising。值得注意的是，BASICVSR ++的性能与基于变压器的方法相当，最多占参数降低和44倍加速的79％。有希望的结果表明，不仅仅是视频超级分辨率，在视频恢复任务中传播和对齐的重要性。代码和型号可在https://github.com/ckkelvinchan/basicvsr_plusplus上找到。

在这项工作中，我们在具有稀疏相机视图的设置下，开发了一个可概括和高效的神经辐射场（nerf）管道，用于高保真自由观点人体合成。虽然现有的基于NERF的方法可以合成人体的相当逼真的细节，但是当输入具有自动闭塞时，它们往往会产生差的结果，特别是对于在稀疏视野下的看不见的人类。此外，这些方法通常需要大量的采样点进行渲染，这导致效率低，限制了其现实世界的适用性。为了解决这些挑战，我们提出了一种几何形状导向的进步nerf〜（GP-NERF）。特别地，为了更好地解决自动阻塞，我们设计了一种几何指导的多视图特征集成方法，该多视图特征集成方法在从输入视图集成不完全信息之前利用估计的几何形状，并构建目标人体的完整几何体积。同时，为了实现更高的渲染效率，我们引入了几何形状导向的渐进性渲染管线，其利用几何特征卷和预测的密度值来逐步减少采样点的数量并加快渲染过程。 ZJU-Mocap和Thuman数据集的实验表明，我们的方法在多种泛化设置上显着优于最先进的，而通过应用我们有效的渐进式渲染管道，时间成本降低> 70％。